Le problème des actions à l'aveugle
Lorsqu'il s'agit de résoudre des problèmes logiques complexes ou de récupérer plusieurs informations, forcer une IA à décider immédiatement d'une Action peut entraîner des erreurs désastreuses.
Pensez à la façon dont un humain résout un puzzle :
- Il ne prend pas une pièce au hasard pour la forcer dans le plateau.
- Il élabore mentalement ou à voix haute une stratégie : « D'abord, je dois trouver les pièces à bord plat pour le contour, ensuite je verrai si cette pièce bleue s'emboîte. »
De même, si nous demandons à une IA de seulement produire une Action—en sautant la phase de raisonnement—elle « agit à l'aveugle ». Elle devinera souvent, hallucinera ou choisira complètement le mauvais outil, car elle n'a pas défini les prérequis nécessaires pour répondre à la requête.
Réfléchir à voix haute
Les modèles de langage construisent la logique jeton par jeton. En forçant l'IA à « réfléchir à voix haute » (générer du texte analysant le problème) avant qu'elle ne sélectionne une action, nous lui fournissons l'espace de travail nécessaire pour aboutir à la bonne conclusion logique.
